이 숲은 첨성대(瞻星臺)와 월성(月城) 사이에 위치해 있으며, 경주 김씨의 시조 알지(閼智)가 태어났다는 전설이 있는 유서 깊은 곳이다.

신라 탈해왕(脫解王) 때 호공(瓠公)이 이 숲에서 닭이 우는 소리를 들었는데, 가까이 가 보니 나뭇가지에 금궤(金櫃)가 빛을 내며 걸려 있었다. 이 사실을 임금께 아뢰어 왕이 몸소 숲에 가서 금궤를 내렸다. 뚜껑을 열자 궤 속에서 사내아이가 나왔다하여 성(姓)을 김(金), 이름을 알지라 하고, 본래 시림(始林), 구림(鳩林)이라 하던 이 숲을 계림(鷄林)으로 부르게 되었다.

경내의 비는 조선 순조(純祖) 3년(1803)에 세워진 것으로 김알지 탄생에 관한 기록이 새겨져 있다.